Занятая созданием решений в сфере периферийных вычислений компания Armada объявила о привлечении $55 млн на свои разработки в соответствующей нише. По данным Datacenter Dynamics, также речь идёт об инвестициях в платформу управления такими вычислениями. Для ЦОД компании предусмотрено использование спутниковой связи.

Раунд финансирования возглавили Founders Fund, Lux Capital, Shield Capital и 8090 Industries, также участие приняли Contrary, Felicis, Koch Real Estate Investments, Marlinspike, Valor Equity Partners, 8VC и другие инвестиционные компании. В январе венчурные инвесторы Founders Fund, Lux Capital, и Shield Capital уже возглавили посевной раунд инвестиций в Armada объёмом $15 млн. Представители некоторых инвесторов уже вошли в состав совета директоров Armada.

Armada предлагает защищённые автономные дата-центры Galleon в модульным исполнении со спутниковым подключением к Starlink, размещаемых в стандартных 20- и 40-футовых грузовых контейнерах (на 3 и 6 стоек соответственно). Как заявляют в Armada, ИИ-системы различного характера и назначения совершили революцию в повседневной жизни и в бизнесе, но далеко не у всех имеются равный доступ к ним. Во многих регионах отсутствует даже базовый доступ в Сеть, из-за чего многие структуры не могут по-настоящему эффективно применять свои данные.

Источник изображения: Armada

Как заявляют в самой Armada, в сфере периферийных решений генерируются огромные объёмы данных, но им не находится практически никакого применения. В компании утверждают, что набрали лучшую команду для того, чтобы исправить положение, а инвесторы и советники поддержат начинания бизнеса. Пока, по информации Forbes, у Armada фактически нет клиентов, кроме горнодобывающей Nexa Resources, совместно с которой проводятся испытания для «проверки концепции». В целом стартап настроен на работы в сфере обороны и добычи полезных ископаемых.

Своей основной миссией Armada назвала устранение цифрового неравенства. В кругах инвесторов уверены, что Armada сыграет ключевую роль в удовлетворении растущих потребностей в индустриальном Интернете вещей для производственных компаний и промышленных приложений. Вероятное сотрудничество со SpaceX пока не комментируется. Ранее в Armada заявляли, что уже наладили взаимодействие с компанией Илона Маска (Elon Musk).

Тем временем Microsoft предложила собственный модульный контейнерный ЦОД Azure MDC с опциональным подключением к сети Starlink. В сентябре «ЦОД на колёсах» со спутниковым подключением для формирования сети 5G и периферийных вычислений предложил американский телеком-оператор Verizon. А у AWS есть «тактический» микро-ЦОД.

Компания Giga Computing (Gigabyte) анонсировала новые серверы типоразмера 1U, предназначенные для периферийных вычислений, веб-хостинга и бизнес-приложений. В основу новинок положены процессоры Intel Xeon E-2400, насчитывающие до восьми вычислительных ядер (показатель TDP — до 95 Вт).

В частности, дебютировала модель E133-X10 уменьшенной глубины. Это решение ориентировано на edge-задачи. Устройство может применяться в помещениях с ограниченным пространством. Сервер допускает установку двух карт FHFL PCIe 5.0 x16/8 и одной карты FHHL PCIe 4.0 x4, двух накопителей SFF с интерфейсом SATA-3 и SSD формата M.2 с интерфейсом PCIe 4.0 x4.

Кроме того, анонсированы серверы R133-X10, R133-X11 и R133-X13. Они различаются организацией подсистемы хранения данных на основе накопителей SFF, LFF и М.2, а также возможностями в плане установки карт расширения (см. таблицу с характеристиками ниже). Все перечисленные устройства комплектуются двумя блоками питания мощностью 550 Вт с сертификатом 80 Plus Platinum или 800 Вт с сертификатом 80 Plus Platinum/Titanium.

Источник изображений: Gigabyte

Представлены также серверы R123-X00 и R113-X30 с возможностью установки одной карты FHHL PCIe 5.0 x16 и SSD формата M.2 с интерфейсом PCIe 4.0 x4. Первая из этих моделей поддерживает четыре накопителя SFF/LFF с интерфейсом SATA-3, вторая — два. Кроме того, R123-X00 может нести на борту две LP-карты PCIe 4.0 x4. Установлен блок питания на 400 Вт с сертификатом 80 Plus Gold.

Все новинки оснащены контроллером ASPEED AST2600, двумя сетевыми портами 1GbE (версия R133-X11 имеет дополнительно два порта 10GbE), четырьмя слотами для модулей оперативной памяти DDR5-4400 ECC / non-ECC UDIMM, портами USB 3.2 Gen1 и Mini-DP. Применено воздушное охлаждение.

Наряду с анонсом процессоров Xeon Scalable пятого поколения компания Intel обновила и модельные ряды Xeon D и Xeon E. Изменений и нововведений в представленных чипах достаточно много. Так, модельный ряд Xeon D по традиции поделён на две ветви: Xeon D-1800 и Xeon D-2800.

Уже сериии Xeon D-1700 и D-2700 были адаптированы для работы в серверах периферийных вычислений и в составе сетевого оборудования. Напомним ключевые моменты:

• Интегрированный 100GbE-контроллер с RDMA iWARP/RoCE v2;
• Интегрированный коммутатор и обработчик пакетов у Xeon D-2700;
• До 32 линий PCI Express 4.0;
• Наличие Intel QAT, SGX и TME;
• Поддержка AVX-512, в том числе VNNI/DL Boost;
• Поддержка технологий TSN/TCC, критичных для систем реального времени.

Источник: Intel via ServeTheHome

Всё это характерно и для новых Xeon D-1800 и D-2800, ведь в их основе лежит прежняя архитектура Ice Lake-D. Речь всё ещё идёт о сочетании DDR4 и PCI Express 4.0, однако улучшения всё же есть: оптимизация техпроцесса позволила довести максимальное количество ядер до 22 против 20 у предыдущих моделей при неизменном теплопакете. Небольшой прирост производительности тоже есть — примерно 1,12-1,15х у старшей модели Xeon D-2800. Кроме того, процессоры Xeon D-1800, наконец, получили поддержку двух 100GbE-портов.

Источник: Intel

Одновременно с анонсом новых Xeon D состоялся анонс серии Xeon E-2400, которая заменит Xeon E-2300. Изменений здесь существенно больше. Во-первых, платформа перебралась с LGA 1200 на LGA 1700, а на смену ядрам Cypress Cove пришли Raptor Cove. И хотя E-ядер в составе CPU нет, Intel почему-то решила не активировать поддержку AVX-512. Во-вторых, существенный апгрейд претерпела подсистема памяти: вместо двух каналов DDR4-3200 теперь доступна пара каналов DDR5-4800.

Наконец, Xeon E-2400 получили поддержку PCI Express 5.0 — из 20 имеющихся процессорных линий 16 теперь способны работать именно в этом режиме. Подросла версия DMI с 3.0 до 4.0, а PCH новой платформы теперь предоставляет 20 линий PCIe 4.0 и 8 линий PCIe 3.0. Заодно с трёх до пяти выросло количество портов USB 3.2 Gen 2x2 (20 Гбит/с).

Источник: Intel via ServeTheHome

Максимальное число ядер в новой серии Xeon E осталось прежним — их всё ещё восемь, но благодаря существенно более быстрой памяти и использованию техпроцесса Intel 7 Ultra производительность новинок в среднем в 1,3 раза выше, чем у предшественников. Базовая частота подросла до 3,5 ГГц, в турборежим частота доходит до 5,6 ГГц, но при этом теплопакет не выходит за рамки 95 Вт. Нацелены Intel Xeon E-2400 на рынок серверов и облачных систем начального уровня.

Lattice Semiconductor представила на конференции для разработчиков Lattice Developers Conference новую эталонную платформу для ускорения разработки периферийных ИИ-решений использованием платформ NVIDIA Jetson Orin и IGX Orin. Сотрудничество Lattice с NVIDIA нацелено на повышение эффективности подключения сенсоров к приложениям для ИИ-обработки, что позволит расширить возможности сообщества разработчиков открытых платформ.

Согласно пресс-релизу, эталонная open source плата, основанная на энергоэффективных FPGA Lattice и аппаратной платформе NVIDIA Orin, предназначена для удовлетворения потребностей разработчиков в подключении к разнообразным датчикам и интерфейсам, при разработке масштабируемых высокопроизводительных периферийных ИИ-приложений с низким уровнем задержкидля нужд здравоохранения, робототехники, встраиваемых систем визуализации и т.д. Эталонная плата пока доступна лишь избранным клиентам, но Lattice планирует расширить доступ к решению и примерам приложений в I половине 2024 года.

Источник изображения: Lattice Semiconductor

«Мы рады сотрудничеству с NVIDIA, которое позволит расширить возможности наших эталонных решений, предлагая больше инноваций нашим клиентам и экосистеме, чтобы помочь упростить и ускорить внедрение периферийных приложений ИИ», — заявил директор по стратегии и маркетингу Lattice Semiconductor. В свою очередь директор по управлению встраиваемыми ИИ-продуктами NVIDIA отметил, что сотрудничество с Lattice позволит ускорить инновации в области обработки показаний датчиков и упростить развёртывание приложений ИИ «от периферии до облака».

McDonald's подписала многолетнее соглашение с Google Cloud Platform — гигант общепита станет использовать оборудование, данные и ИИ-решения Google в своих точках питания по всему миру, сообщает Datacenter Dynamics. Подключение заведений к цифровой инфраструктуре Google Cloud упростит управление объектами и оптимизирует рабочие и бизнес-процессы, благодаря чему улучшится опыт взаимодействия посетителей и персонала.

В первую очередь компания намерена использовать решения Google для периферийных вычислений, внедряя в ресторанах платформу Google Distributed Cloud для анализа работы оборудования и минимизации нарушения бизнес-процессов. Также ожидается, что McDonald's сможет быстрее улучшить собственные программные платформы, в том числе мобильное приложение и ПО в киосках для самообслуживания благодаря облачным вычислениям.

Источник изображения: Hat Trick/unsplash.com

А специальная команда Google в Чикаго будет сотрудничать с глобальным инновационным центром McDonald's Speedee Labs. В частности, ИИ Google будет применяться для поиска решений в сфере «ключевых бизнес-приоритетов». Ожидается, что комбинация бренда и масштаба McDonalds с компетенциями Google Cloud в области ИИ и технологических инновациях позволит переформатировать работу индустрии и даже изменить ожидания людей от заведений общепита.

McDonald's начала переезд в облако ещё в 2018 году. На тот момент компания намеревалась сотрудничать с AWS на протяжении пяти лет, а также перенести часть бизнес-процессов в Microsoft Azure. Журналисты запросили у компании комментарии того, как новая сделка с Google Cloud повлияет на предыдущие договорённости — ещё в прошлом году старший директор облачных и информационных служб McDonald's утверждал, что все корпоративные системы компании уже находятся в облаках.

Компания Scale Computing анонсировала первые устройства серии HE100, в основу которых положены компьютеры небольшого форм-фактора ASUS Next Unit of Computing (NUC). Решения, выполненные на платформе Intel Raptor Lake, предназначены для организации периферийных вычислений.

Максимальная конфигурация включает процессор Core i7-1370P (6Р+8Е; 20 потоков; 1,4–5,2 ГГц; 20–28 Вт; Intel Iris Xe Graphics). Объём оперативной памяти может составлять 16, 32 или 64 Гбайт. Допускается установка одного SSD формата M.2 (NVMe) вместимостью 1, 2, 4 или 8 Тбайт.

Дебютировали модели HE153 и HE153s: первая оснащена двумя сетевыми портами 2.5GbE, вторая — одним. На устройствах применена фирменная «самовосстанавливающаяся» программная платформа, позволяющая приложениям автономно функционировать на периферии. Прочие характеристики новинок пока не раскрываются.

Источник изображения: Scale Computing

Благодаря небольшим размерам три компьютера серии HE100 могут бок о бок монтироваться в серверное шасси типоразмера 1U. В качестве альтернативного варианта допускается установка нескольких устройств стопкой друг на друга. На фронтальную панель изделий выведены два порта USB 3.х Type-A. Сзади находится интерфейс HDMI.

В продажу новинки поступят в I половине 2024 года по цене от $5400 за кластер из трёх узлов.

Стартап Lonestar Data Holdings, развивающий идею строительства дата-центров на Луне, по сообщению ресурса Datacenter Dynamics, получил на развитие дополнительно более $800 тыс. Деньги поступили как от существующих, так и от новых инвесторов. По задумке Lonestar, лунный ЦОД обеспечит периферийные вычисления для будущих космических миссий, а также работу сервисов резервного копирования и аварийного восстановления данных.

В марте нынешнего года Lonestar объявила о привлечении $5 млн от Scout Ventures, Seldor Capital, 2 Future Holding, The Veteran Fund, Irongate Capital, Atypical Ventures и KittyHawk Ventures. После этого компания рассчитывала получить ещё $500 тыс., но в итоге удалось собрать даже больше — $825 тыс. Деньги будут направлены на дальнейшее развитие и ускорение практической реализации проекта. «Клиенты и инвесторы поддерживают нашу концепцию обеспечения безопасности критически важных данных на Луне», — сказал Крис Стотт (Chris Stott), генеральный директор Lonestar.

Источник изображения: Intuitive Machines

Изначально предполагалось, что Lonestar отправит микро-ЦОД на естественный спутник нашей планеты в 2022 году, но реализация миссии затянулась. Позднее стартап сообщил, что запустит аппарат во II квартале 2023-го, но и эти сроки выдержать не удалось. Как теперь говорится, старт должен состояться в ноябре нынешнего года. После этого на Луну будет отправлен второй посадочный модуль с накопителем вместимостью 8 Тбайт. Lonestar сотрудничает с компанией Intuitive Machines, которая отвечает за выполнение коммерческих лунных программ.

Американская компания Cloudflare, предоставляющая услуги CDN, по сообщению Datacenter Dynamics, будет использовать ускорители NVIDIA в своей глобальной edge-сети для обработки ресурсоёмких нагрузок ИИ, в частности, больших языковых моделей (LLM). Как отмечает ресурс NetworkWorld, инициатива носит название Workers AI. Заказчики смогут получать доступ к мощностям устройств NVIDIA для реализации своих ИИ-проектов.

Cloudflare также задействует коммутаторы NVIDIA Ethernet и полный набор софта NVIDIA для инференса, включая TensorRT-LLM и Triton Inference. Поначалу не планируется поддержка пользовательских ИИ-моделей: клиентам будет предоставляться доступ только к Meta✴ Llama 2 7B и M2m100-1.2, OpenAI Whisper, Hugging Face Distilbert-sst-2-int8, Microsoft Resnet-50 и Baai bge-base-en-v1.5. В будущем этот перечень планируется расширять.

О моделях ускорителей, которые возьмёт на вооружение Cloudflare, ничего не говорится. Но отмечается, что к концу 2023 года решения NVIDIA будут внедрены более чем в 100 городах, а в течение 2024-го они появятся почти во всех зонах присутствия Cloudflare. Глобальная edge-сеть компании использует ЦОД более чем в 300 городах по всему миру.

Источник изображения: NVIDIA

Ещё одной новой инициативой Cloudflare в области ИИ является Vectorize — векторная база данных. Она поможет разработчикам создавать приложения на основе ИИ полностью на платформе Cloudflare. Говорится, что Vectorize получит интеграцию с Workers AI. Наконец, готовится AI Gateway — система оптимизации и управления производительностью, предназначенная для работы с ИИ-приложениями, развёрнутыми в сети Cloudflare.

Молодая компания Axelera AI B.V. сообщила о начале поставок платформы Metis AI, разработанной специально для ускорения ИИ-задач на периферии. Стартап, основанный в 2021 году, получил финансирование на сумму более $50 млн. Чип Axelera основан на открытой архитектуре RISC-V. В базовом варианте платформа Metis AI обеспечивает производительность до 39,3 TOPS. Увеличив тактовую частоту, быстродействие можно довести до 48,16 TOPS.

Изделие предлагается в различных вариантах исполнения, включая карты расширения PCIe (FHHL), модули М.2 2280 и полноценные системы для задач машинного зрения. В частности, карты PCIe AI Edge доступны в версиях с одним и несколькими чипами с общей производительностью до 856 TOPS. Утверждается, что платформа Metis AI обладает высокой энергетической эффективностью — это важно при организации ИИ-вычислений на периферии.

Источник изображений: Axelera AI B.V.

Изделия Metis AI используют чипы Axelera Metis AIPU, содержащие четыре ядра для in-memory вычислений. Объём SRAM-кеша L1 составляет 16 Мбайт, кеша L2 — 32 Мбайт. Диапазон рабочих температур простирается от -40 до +85 °C. Гарантирована совместимость с Ubuntu 20.04/22.04 и Yocto. Разработчикам доступен набор инструментов Voyager SDK и фирменный компилятор TVM, который включает в себя средства оптимизации.

Модуль Axelera M.2 в формате 2280 наделён 512 Мбайт памяти LPDDR4x и одним чипом Axelera Metis AIPU. Энергоэффективность достигает 15 TOPS в расчёте на 1 Вт. Задействовано пассивное охлаждение; интерфейс подключения — PCIe 3.0 х4. Цена составляет €150.

В свою очередь, карты Axelera PCIe AI Edge доступны в версиях с одним (+1 Гбайт набортной RAM) и четырьмя чипами Axelera Metis AIPU: в первом случае быстродействие достигает 214 TOPS (INT8), во втором — 856 TOPS. Устройства выполнены в виде однослотовых карт с интерфейсом PCIe 3.0 х4 и PCIe 3.0 х16. Применена система активного охлаждения с вентилятором. Цена составляет около €200 и €500 соответственно.

Американский телеком-оператор Verizon представил необычное трейлерное решение — как сообщает пресс-служба компании, мини-ЦОД на колёсах, получивший название Mobile Onsite Network-as-a-Service (NaaS), обеспечивает создание частной мобильной сети 4G/5G, связанные периферийные вычисления (MEC), поддержку SD-WAN, а также соединение со спутниками.

Высокая скорость подключения и низкий уровень задержки в зоне работы трейлера позволяет применять оборудование в разных сферах, обеспечивая высокий уровень конфиденциальности и безопасности. Контейнер занимает площадь всего около 1 м². Управление сетью и вычислениями может осуществляться локально.

Источник изображения: Verizon

Впервые Mobile Onsite NaaS был задействован в кампусе Lockheed Martin в Колорадо (США). По данным телеком-оператора, готовое к эксплуатации решение удалось развернуть на месте всего за несколько часов, примерно за то же время завершилось тестирование спутникового подключения. Похожий прототип компания представила ещё в 2021 — проект THOR с похожей функциональностью создавался в качестве выездного командного центра для военных и базировался на шасси Ford.

Новое решение найдёт применение в сегменте коммунальных услуг, сельском хозяйстве, производстве, для организации медийных мероприятий и в других отраслях, где потребуется использование частных 5G-сетей и поддержка периферийных вычислений — включая работу по заказу структур, ответственных за обеспечение безопасности. Это обойдётся гораздо дешевле, чем установка стационарного оборудования. Ещё одна сфера применения — в качестве мобильной лаборатории (Mobile Lab as a Service) для выездного тестирования и отладки сотовых технологий.